Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

Мурати понимала, что это необходимая плата за воплощение амбиций. А о ее амбициях красноречиво говорил никнейм, который она использовала в юности для некоторых интернет-аккаунтов: unicorngenetrix – Матерь Единорогов.

Так совпало, что 29 сентября 2023 года Тонер как раз встречалась с Мурати за кофе. Встречу инициировала Мурати – с ведома Альтмана, чтобы наладить контакт с советом директоров. Беседа получилась обстоятельной, но никаких тревожных сигналов не прозвучало.

Однако Тонер последовала совету Суцкевера и снова позвонила Мурати. Объяснила: у нее был странный разговор с Суцкевером и теперь она в недоумении. Что происходит? Есть что-то, о чем совету стоит узнать? И тогда Мурати рассказала, что токсичный стиль управления Альтмана создавал проблемы годами – особенно когда у него обострялась тревожность, как в последние месяцы. Схема у Альтмана была простая: сначала говорить все что угодно, лишь бы добиться желаемого, а если не срабатывает – подрывать авторитет оппонента или уничтожать его репутацию. Альтман говорил людям то, что они хотели услышать, – даже если это означало пообещать одну должность двум конкурентам или уступить Microsoft позиции, которые она месяцами отвоевывала на переговорах. Отношения между Брокманом и Альтманом делали ее работу, по сути, невыполнимой: Брокман, президент компании, не имевший ни одного сотрудника в прямом подчинении, формально был подотчетен ей, но при этом сам входил в совет директоров. Всякий раз, как она пыталась помешать ему влезть в чужой проект, он просто шел к Альтману и решал вопрос через ее голову. Из-за выходок Брокмана из компании ушло множество людей, и нездоровые отношения между ним и Альтманом грозили выдавить еще нескольких, включая главного научного сотрудника Боба Макгрю и, возможно, саму Мурати. Она уже высказывала Альтману свое мнение по всем этим вопросам. В ответ он начал приводить на их встречи – подразумевалось, что они должны проходить один на один, – главу HR Дайан Юн. Это продолжалось неделями, пока Мурати прямо не заявила, что не собирается доносить свое мнение до совета директоров.

После этого Тонер снова связалась с Суцкевером, пытаясь добиться большей ясности. Хотя он так и не сказал ничего прямо, она поняла: да, он считает, что Альтмана надо уволить. Суцкевера все больше тревожило, что он – как и вся команда руководителей – не может в полной мере доверять Альтману. А ведь речь шла об организации, которая рано или поздно создаст AGI. Последствия могли быть катастрофическими. Суцкевер был в ужасе от одной мысли, что Альтман может узнать об их разговорах с советом.

Суцкеверу потребовались годы, чтобы до конца понять схему поведения Альтмана: генеральный директор OpenAI говорил ему одно, потом – совершенно другое, а расхождения списывал на случайность. «Ой, я, наверное, оговорился», – невинно замечал Альтман. Суцкевер пришел к выводу: Альтман лжет и сеет хаос. Такой генеральный директор может создать проблемы любой компании, но, когда речь идет о технологии, способной изменить ход цивилизации, – это просто катастрофа.

Все это достигло апогея в 2021 году. Суцкевер к тому времени уже наметил новое направление для OpenAI – рассуждающая модель, которая будет обдумывать ответы дольше и планировать действия на несколько шагов вперед. Эта разработка впоследствии легла в основу модели o1. Суцкевер организовал команду и почти год руководил проектом, когда в дело вмешался Якуб Пачоцки – исследователь, который возглавлял работу над проектом по игре в Dota 2 и успел сблизиться с Брокманом. Пачоцки начал разрабатывать собственный вариант, поразительно похожий на то, что делал Суцкевер. Поначалу он искал сотрудничества – ежедневно бомбардировал Суцкевера сообщениями о своих исследованиях в области рассуждений через обучение с подкреплением. Потом Пачоцки перебросили на GPT–4, и он увяз в проекте до 2022 года. Когда Пачоцки вернулся к прежней задаче, руководство решило объединить две команды. Суцкевер счел, что работа продвинулась достаточно далеко и обязательно увенчается успехом. Он отошел в сторону, позволив Пачоцки довести дело до конца, а сам переключился на безопасность ИИ.

Летом 2023 года Суцкевер запустил новый проект Superalignment – команда должна была научить ИИ самостоятельно решать задачи, связанные с элайнментом. Как выразился коллега по команде Ян Лейке, целью было заставить ИИ делать за них «домашнюю работу» по настройке безопасности. И Суцкевер, и Пачоцки были уверены, что Альтман обещал именно ему дать полномочия определять вектор исследований всей компании. Но попытка Альтмана усидеть на двух стульях – сохранить за Суцкевером должность главного научного сотрудника и одновременно назначить Пачоцки директором по исследованиям – обернулась месяцами междоусобиц и падением производительности. Для Суцкевера это стало последней каплей: примеров двуличности Альтмана и его патологического стремления избегать конфликтов и так уже накопилось слишком много.

Тонер сочла обвинения Суцкевера настолько серьезными, что предложила ему поговорить с Д’Анджело и Макколи. «Ты им доверяешь? – спросил Суцкевер. – Можно ли им рассказывать такое?» Тонер поручилась за коллег. Макколи терзали похожие сомнения – а вдруг Суцкевер проверяет ее на лояльность по заданию Альтмана? Тонер поразила атмосфера тотального страха. Каково же было положение дел в компании – лидере гонки искусственного интеллекта, если половина ее совета директоров так относилась к собственному генеральному директору?

В октябре, в то время как независимые директора начинали обсуждать между собой тревоги Суцкевера и Мурати, Тонер опубликовала статью, которая вывела Альтмана из себя. Под заголовком «Расшифровка намерений: искусственный интеллект и дорогостоящие сигналы» (Decoding Intentions: Artificial Intelligence and Costly Signals) скрывался сугубо академический текст о теории игр и влиянии ИИ на национальную безопасность. Но в глубине статьи затерялось несколько предложений, которые можно было истолковать как похвалу Anthropic за решение придержать своего чатбота Claude, пока OpenAI не выпустила джинна из бутылки со своим ChatGPT:

«Откладывая релиз Claude до появления на рынке аналогичного продукта от конкурента, Anthropic продемонстрировала готовность избежать той самой лихорадочной гонки в ущерб качеству, которую, судя по всему, спровоцировал релиз ChatGPT. Компания достигла этой цели через механизм невозвратных издержек – фиксированных затрат, которые невозможно компенсировать со временем. В контексте данного исследования Anthropic укрепила доверие к своим обязательствам в области безопасности ИИ, воздержавшись от раннего релиза модели и приняв на себя риск упущенной выгоды»[352].

Альтман позвонил Тонер – внешне спокойный, но кипящий от злости. Он заявил, что Федеральная торговая комиссия начала расследование в отношении OpenAI и подобная критика наносит компании ущерб. Но главное – он хотел знать, действительно ли эти слова отражают ее позицию. Неужели она всерьез считает, что Anthropic заслуживает большего доверия, чем OpenAI, – даже после того, как они привлекли миллиарды и вышли на рынок, до этого изображая из себя борцов за чистоту идеи, чуждых коммерции? Если такова ее позиция, он готов обсудить это на уровне совета. Тонер объяснила: статья описывает внешнее восприятие, а ее личное мнение гораздо сложнее. Да, ChatGPT привлек